From Volume to Value: Preference-Aligned Memory Construction for On-Device RAG
从数量到价值：端侧RAG的偏好对齐记忆构建
🧭 偏好对齐的端侧记忆构建与检索 ★ 深度解读
Ulsan National Institute of Science and Technology (UNIST)
EPIC 框架通过筛选偏好相关数据并引导查询方向，在端侧实现 2404 倍内存压缩、20.17 个百分点的偏好遵循提升和 33 倍检索加速。
📌 工作参考价值（4 点）
- 选择性记忆构建：电商推荐系统可借鉴“只存偏好相关项”的思路，用用户偏好（如价格敏感、品牌偏好）过滤商品池，大幅缩减索引体积，同时保持推荐相关性。
- 偏好对齐的检索引导：在生成式推荐或对话 Agent 中，可在查询向量上叠加最匹配的偏好嵌入，增强检索结果与用户长期偏好的对齐，仅增加 0.18ms 延迟。
- 分级过滤流水线：先使用轻量 Embedding 相似度做粗筛，再用 LLM 细粒度验证，平衡效率与精度；可迁移到商品候选集的粗排-精排流程，节省模型推理成本。
- 偏好漂移适应：端侧流式场景下，偏好的动态增删不会破坏索引，可直接更新偏好嵌入并检索，适合 Agent 长时对话中的兴趣追踪与实时调整。